最近，人们对基于变压器的模型产生有意义的文本嵌入的能力越来越兴趣，例如文本相似性。尽管该领域取得了重大进展，但相似性预测的解释仍然具有挑战性，尤其是在无监督的环境中。在这项工作中，我们提出了一种无监督的技术，用于解释预先训练的BERT模型推断出的段落相似性。通过查看一对段落，我们的技术确定了决定每个段落的语义的重要单词，在这两个段落中的单词之间匹配，并检索解释两者之间相似性的最重要对。该方法已通过广泛的人类评估进行了评估，并在包含长期复杂段落的数据集中证明了这一方法，已显示出巨大的希望，提供了与人类看法更好相关的准确解释。

我们提出了Metricbert，这是一个基于BERT的模型，该模型学会了以明确的相似性度量嵌入文本，同时遵守``传统''蒙面语言任务。我们专注于学习相似之处的下游任务，以表明公制表现优于最先进的替代方案，有时要大幅度。我们对我们的方法及其不同的变体进行了广泛的评估，这表明我们的训练目标对传统的对比损失，标准余弦相似性目标和其他六个基线非常有益。作为另一个贡献，我们发布了视频游戏描述的数据集，以及由域专家制作的一系列相似性注释。

我们介绍了用于分析功能磁共振成像（FMRI）数据的TFF变压器框架。TFF采用基于变压器的架构和两阶段培训方法。首先，自我监督培训适用于FMRI扫描的集合，其中模型培训用于重建3D卷数据。其次，预训练模型在特定任务上进行了微调，利用地面真理标签。我们的结果显示了各种FMRI任务的最先进的性能，包括年龄和性别预测，以及精神分裂症认可。

The performance of inertial navigation systems is largely dependent on the stable flow of external measurements and information to guarantee continuous filter updates and bind the inertial solution drift. Platforms in different operational environments may be prevented at some point from receiving external measurements, thus exposing their navigation solution to drift. Over the years, a wide variety of works have been proposed to overcome this shortcoming, by exploiting knowledge of the system current conditions and turning it into an applicable source of information to update the navigation filter. This paper aims to provide an extensive survey of information aided navigation, broadly classified into direct, indirect, and model aiding. Each approach is described by the notable works that implemented its concept, use cases, relevant state updates, and their corresponding measurement models. By matching the appropriate constraint to a given scenario, one will be able to improve the navigation solution accuracy, compensate for the lost information, and uncover certain internal states, that would otherwise remain unobservable.

Autonomous underwater vehicles (AUVs) are regularly used for deep ocean applications. Commonly, the autonomous navigation task is carried out by a fusion between two sensors: the inertial navigation system and the Doppler velocity log (DVL). The DVL operates by transmitting four acoustic beams to the sea floor, and once reflected back, the AUV velocity vector can be estimated. However, in real-life scenarios, such as an uneven seabed, sea creatures blocking the DVL's view and, roll/pitch maneuvers, the acoustic beams' reflection is resulting in a scenario known as DVL outage. Consequently, a velocity update is not available to bind the inertial solution drift. To cope with such situations, in this paper, we leverage our BeamsNet framework and propose a Set-Transformer-based BeamsNet (ST-BeamsNet) that utilizes inertial data readings and previous DVL velocity measurements to regress the current AUV velocity in case of a complete DVL outage. The proposed approach was evaluated using data from experiments held in the Mediterranean Sea with the Snapir AUV and was compared to a moving average (MA) estimator. Our ST-BeamsNet estimated the AUV velocity vector with an 8.547% speed error, which is 26% better than the MA approach.

Inertial and Doppler velocity log sensors are commonly used to provide the navigation solution for autonomous underwater vehicles (AUV). To this end, a nonlinear filter is adopted for the fusion task. The filter's process noise covariance matrix is critical for filter accuracy and robustness. While this matrix varies over time during the AUV mission, the filter assumes a constant matrix. Several models and learning approaches in the literature suggest tuning the process noise covariance during operation. In this work, we propose ProNet, a hybrid, adaptive process, noise estimation approach for a velocity-aided navigation filter. ProNet requires only the inertial sensor reading to regress the process noise covariance. Once learned, it is fed into the model-based navigation filter, resulting in a hybrid filter. Simulation results show the benefits of our approach compared to other models and learning adaptive approaches.

表面分级是在施工现场管道中的一项重要任务，这是平衡含有预倾角沙桩的不平衡区域的过程。这种劳动密集型过程通常是由任何建筑工地的关键机械工具推土机进行的。当前的自动化表面分级的尝试实现了完美的定位。但是，在实际情况下，由于代理人的感知不完善，因此该假设失败了，从而导致性能降解。在这项工作中，我们解决了不确定性下自动分级的问题。首先，我们实施模拟和缩放现实世界原型环境，以在此环境中快速策略探索和评估。其次，我们将问题形式化为部分可观察到的马尔可夫决策过程，并培训能够处理此类不确定性的代理商。我们通过严格的实验表明，经过完美本地化训练的代理人在出现本地化不确定性时会遭受降低的性能。但是，使用我们的方法培训的代理商将制定更强大的政策来解决此类错误，从而表现出更好的评分性能。

移动机器人用于工业，休闲和军事应用。在某些情况下，机器人导航解决方案仅依赖于惯性传感器，因此，导航解决方案会及时漂移。在本文中，我们提出了MORPI框架，这是一种移动机器人纯惯性方法。机器人没有以直线轨迹行进，而是以周期性运动轨迹移动，以实现峰值估计。以这种方式，使用经验公式来估计行进距离，而不是进行三个集成来计算经典惯性解决方案中的机器人位置。提出了两种类型的MORPI方法，其中一种方法基于加速度计和陀螺仪读数，而另一种仅基于陀螺仪。封闭形式的分析溶液被得出表明，与经典的纯惯性溶液相比，MORPI产生较低的位置误差。此外，为了评估所提出的方法，使用配备两种类型的惯性传感器的移动机器人进行现场实验。总共收集了143个轨迹，持续时间为75分钟并评估。结果表明使用我们的方法的好处。为了促进拟议方法的进一步开发，数据集和代码均可在https://github.com/ansfl/morpi上公开获得。

自动水下车辆（AUV）执行各种应用，例如海底映射和水下结构健康监测。通常，由多普勒速度日志（DVL）提供的惯性导航系统用于提供车辆的导航解决方案。在这种融合中，DVL提供了AUV的速度向量，从而确定导航解决方案的准确性并有助于估计导航状态。本文提出了BeamsNet，这是一个端到端的深度学习框架，用于回归估计的DVL速度向量，以提高速度向量估算的准确性，并可以替代基于模型的方法。提出了两个版本的BeamsNet，其输入与网络不同。第一个使用当前的DVL光束测量和惯性传感器数据，而另一个仅利用DVL数据，对回归过程进行了当前和过去的DVL测量值。进行了模拟和海上实验，以验证相对于基于模型的方法的拟议学习方法。使用地中海的Snapir AUV进行了海洋实验，收集了大约四个小时的DVL和惯性传感器数据。我们的结果表明，提出的方法在估计DVL速度矢量方面取得了超过60％的改善。

自动水下车辆（AUV）通常在许多水下应用中使用。最近，在文献中，多旋翼无人自动驾驶汽车（UAV）的使用引起了更多关注。通常，两个平台都采用惯性导航系统（INS）和协助传感器进行准确的导航解决方案。在AUV导航中，多普勒速度日志（DVL）主要用于帮助INS，而对于无人机，通常使用全球导航卫星系统（GNSS）接收器。辅助传感器和INS之间的融合需要在估计过程中定义步长参数。它负责解决方案频率更新，并最终导致其准确性。步长的选择在计算负载和导航性能之间构成了权衡。通常，与INS操作频率（数百个HERTZ）相比，帮助传感器更新频率要慢得多。对于大多数平台来说，这种高率是不必要的，特别是对于低动力学AUV。在这项工作中，提出了基于监督机器学习的自适应调整方案，以选择适当的INS步骤尺寸。为此，定义了一个速度误差，允许INS/DVL或INS/GNSS在亚最佳工作条件下起作用，并最大程度地减少计算负载。模拟和现场实验的结果显示了使用建议的方法的好处。此外，建议的框架可以应用于任何类型的传感器或平台之间的任何其他融合场景。